AI资讯新闻榜单内容搜索-BitNet Dis

关键词: 模型蒸馏,模型训练,BitNet Distillation,BitDistill

1.58bit量化，内存仅需1/10，但表现不输FP16？ 微软最新推出的蒸馏框架BitNet Distillation（简称BitDistill），实现了几乎无性能损失的模型量化。